Мета за добавяне на етикет „генериран от AI“ към изображения, създадени с OpenAI, Midjourney и други инструменти

Meta споделя, че работи за идентифициране и етикетиране на изображения, генерирани от AI, споделени на нейните платформи, които са основани от принадлежности на трети страни, до момента в който компанията се приготвя за изборния сезон през 2024 година на фона на разпространяването на принадлежности за изкуствен интелект, които заплашват да замърсят осведомителната екосистема.

През идващите месеци Meta ще стартира да прибавя етикети „ генерирани от AI “ към изображения, основани от принадлежности на Гугъл, Microsoft, OpenAI, Adobe, Midjourney и Shutterstock, сподели президентът на Meta Global Affairs Ник Клег в обява в блог във вторник. Meta към този момент ползва сходен етикет „ въобразено с AI “ към фотореалистични изображения, основани със личен инструмент за генериране на AI.

Клег сподели, че Meta работи с други водещи компании, разработващи принадлежности за изкуствен интелект за използване на общи механически стандарти - всъщност избрани невидими метаданни или водни знаци, съхранени в изображенията - които ще разрешат на системите му да разпознават генерирани от AI изображения, направени с техните принадлежности.

Етикетите на Meta ще се популяризират във Фейсбук, Instagram и Threads на голям брой езици.

Съобщението на Meta идва в миг, когато специалисти по онлайн информация, законодатели и даже някои механически ръководители сигнализират, че новите AI принадлежности, способни да основават реалистични изображения - съчетани със способността на обществените медии бързо да популяризират наличие - рискуват да популяризират погрешна информация, която може да подведе гласоподаватели преди изборите през 2024 година в Съединените щати и десетки други страни.

Това идва и ден откакто личният Надзорен съвет на Meta жигосах „ непоследователната “ манипулирана медийна политика на компанията в решение, обвързвано с променено видео на президента на Съединени американски щати Джо Байдън. Президентската акция на Байдън в понеделник назова политиката „ безсмислена и рискова “ в изказване за CNN, в отговор на констатациите на Надзорния съвет. Meta сподели в понеделник, че ще прегледа рекомендациите на борда и ще отговори в границите на 60 дни.

Във вторник Клег призна значимостта за потребителите на ясно етикетиране на изображения, генерирани от AI.

„ Хората постоянно се натъкват на генерирано от AI наличие за първи път и нашите консуматори ни споделиха, че правят оценка прозрачността към тази нова технология “, сподели Клег в обявата.

„ Прилагаме този метод през идната година, през която се организират редица значими избори по света “, сподели той. „ През това време чакаме да научим доста повече за това по какъв начин хората основават и споделят AI наличие, какъв тип бистрота хората намират за най-ценен и по какъв начин се развиват тези технологии. “

Новите индустриални общоприети маркери, които ще разрешат на Meta да маркира изображения, генерирани от AI, към момента няма да бъдат включени във видеоклипове и аудио, генерирани от изкуствен интелект.

Засега Meta споделя, че внедрява функционалност, която ще разреши на потребителите да разпознават по кое време видео или аудио наличието, което споделят, е генерирано от AI. От потребителите ще се изисква да приложат разкриването за реалистично видео или аудио, което е „ цифрово основано или променено “ и могат да бъдат осъдени, в случай че не го създадат, сподели Клег.

Той добави, че в случай че цифрово основано или променено изображение, видео или тон „ основава изключително висок риск от материална машинация на обществеността по значим въпрос “, компанията може да добави по-забележим етикет.

Meta също работи, с цел да попречи на потребителите да отстраняват невидимите водни знаци от изображения, генерирани от AI, сподели Клег.

„ Тази работа е изключително значима, защото има възможност това да стане все по-противническо пространство през идващите години. Хората и организациите, които интензивно желаят да излъгват хората с генерирано от AI наличие, ще търсят способи да заобиколят защитните ограничения “, сподели той. „ Важно е хората да вземат поради няколко неща, когато дефинират дали наличието е основано от AI, като инспекция дали акаунтът, който споделя наличието, е благонадежден или търсене на детайлности, които може да наподобяват или звучат неестествено. “